Năm 1922, ông sang Thái Lan, rồi đến Trung Quốc để tham gia các tổ chức chống Pháp, lấy bí danh là Lưu Quốc Long.[1]

Năm 1923, ông gia nhập Tân Việt Thanh niên Đoàn (Tâm Tâm xã) cùng với Lê Hồng Phong, Lê Hồng Sơn, Hồ Tùng Mậu, Phạm Hồng Thái, Trương Quốc Huy, Lê Thiết Hùng, Trương Văn Lĩnh, Lê Quảng Đạt,...[1]

Tháng 6 năm 1924, Lưu Quốc Long cùng Phạm Hồng Thái tiến hành vụ ám sát Toàn quyền Đông Dương Martial Merlin. Dù vụ ám sát không thành công, Phạm Hồng Thái quyên sinh nhưng đã để lại tiếng vang lớn.[1]

Năm 1925, Nguyễn Ái Quốc tiếp xúc với Tâm Tâm xã, tổ chức đào tạo lực lượng cốt cán để làm tiền đề cho tổ chức Cộng sản trong tương lai. Lưu Quốc Long cùng Lê Hồng Sơn, Lê Hồng Phong, Hồ Tùng Mậu, Lê Quảng Đạt, Trương Vân Lĩnh, Vương Thúc Oánh, Lý Quý, Lâm Đức Thụ tham gia Cộng sản Đoàn. Trên cơ sở đó, Hội Việt Nam Cách mạng Thanh niên được thành lập.[1][2][3]

Năm 1926, ông đến Quế Lâm dự lớp học "Công-nông vận động" do Đảng Cộng sản Trung Quốc tổ chức. Sau khóa học, ông tham gia quân đội Dân quốc dưới quyền Tưởng Giới Thạch, hàm Thiếu úy.[1]

Năm 1929, Hội Việt Nam Cách mạng Thanh niên tan rã, ông bắt liên lạc với Đảng viên Đông Dương Cộng sản Đảng là Nguyễn Lương Bằng ở Thượng Hải. Hai người tổ chức đường dây liên lạc bí mật giữa Hồng Kông, Quảng Châu và Thượng Hải.[1]